اشتباه هوش مصنوعی آمریکا را به آستانه جنگ با چین کشاند

به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، سی‌ان‌ان نوشت: گزارش اطلاعاتی که در بهار امسال و همزمان با جنگ علیه ایران در میان بخش‌های مختلف ارتش آمریکا منتشر شد، زنگ خطر را به صدا درآورد: یک کشتی چینی در خاورمیانه در حال انتقال قطعات مربوط به برنامه تسلیحات هسته‌ای بود. ارتش آمریکا بلافاصله برای متوقف کردن کشتی وارد عمل شد و طبق گفته چهار منبع مطلع، حتی برنامه‌ریزی برای بازرسی و توقیف آن انجام شد. 

دو منبع گفتند نیرو‌های مسلح آمریکا آماده بودند سوار کشتی شوند و طبق گفته دو منبع دیگر، هواپیما‌های نظامی نیز در آسمان بودند. اما درست پیش از آغاز عملیات، مقام‌ها با بررسی دقیق‌تر متوجه شدند این گزارش را یک تحلیلگر فرماندهی عملیات ویژه با کمک هوش مصنوعی تهیه کرده و چت‌باتی که او استفاده کرده، محموله کشتی را به‌اشتباه شناسایی کرده است. یکی از منابع این گزارش را «کاملاً نادرست» توصیف کرد و گفت این اشتباه «نزدیک بود جنگی را آغاز کند»، زیرا هرگونه عملیات آمریکا علیه یک کشتی چینی می‌توانست به درگیری مستقیم میان دو کشور منجر شود.

وقتی چت‌بات اطلاعات اشتباه را به گزارش نظامی تبدیل کرد

این اتفاق نشان می‌دهد استفاده از هوش مصنوعی در ارتش آمریکا فقط به کار‌های ساده محدود نیست و این فناوری به سرعت در حال ورود به بخش‌های حساس نظامی و اطلاعاتی است. ارتش و جامعه اطلاعاتی آمریکا از هوش مصنوعی برای بررسی حجم عظیم اطلاعات خام، انتخاب اهداف حملات، جابه‌جایی تجهیزات نظامی و حتی کار‌هایی مانند مدیریت بودجه، تدارکات و زنجیره تأمین استفاده می‌کنند.

 در این حادثه، تحلیلگر اطلاعات مربوط به فهرست محموله کشتی را که از فرماندهی عملیات ویژه آمریکا در اقیانوس آرام به دست آمده بود، در اختیار یک چت‌بات قرار داد. مشخص نیست این ابزار متعلق به یک شرکت تجاری بوده یا محصولی دولتی؛ اما چت‌بات اطلاعات منابع باز را با اطلاعات محرمانه موجود در سامانه‌های دولتی ترکیب کرد و به نتیجه‌ای اشتباه درباره محموله کشتی رسید. تحلیلگر سپس بار دیگر از هوش مصنوعی استفاده کرد تا این یافته‌ها را در قالب یک گزارش استاندارد اطلاعاتی تنظیم کند؛ گزارشی که بعداً در اختیار مقام‌های نظامی قرار گرفت.

آمریکا می‌خواهد هوش مصنوعی را در سراسر ارتش گسترش دهد

دلیل اصلی سرعت گرفتن استفاده از هوش مصنوعی در ارتش آمریکا این است که مقام‌ها معتقدند این فناوری می‌تواند تصمیم‌گیری در میدان جنگ، از انتخاب اهداف حمله گرفته تا جابه‌جایی تجهیزات، را سریع‌تر کند. آنها همچنین می‌گویند آمریکا نمی‌تواند در این زمینه از چین عقب بماند، زیرا در صورت وقوع جنگ، رقیب احتمالی می‌تواند با استفاده از هوش مصنوعی یک گام جلوتر از آمریکا قرار بگیرد.

 در دی‌ماه ۱۴۰۴، «پیت هگست»، وزیر دفاع آمریکا، راهبرد «شتاب‌بخشی به هوش مصنوعی» را برای افزایش سرعت استفاده نظامی از این فناوری اعلام کرد. این راهبرد خواستار استفاده گسترده از هوش مصنوعی در سراسر وزارت دفاع است و هدف آن این است که مدل‌های پیشرفته هوش مصنوعی در اختیار حدود ۳ میلیون نیروی نظامی و غیرنظامی قرار گیرد. با این حال، چند مقام آمریکایی می‌گویند این روند به شکل متمرکز انجام نمی‌شود و بخش‌های مختلف دولت از ابزار‌های متفاوتی با دستورالعمل‌ها و استاندارد‌های ایمنی متفاوت استفاده می‌کنند؛ در نتیجه، یک استاندارد واحد برای بررسی صحت اطلاعات تولیدشده توسط هوش مصنوعی وجود ندارد.

خطر فقط «هوش مصنوعی سرکش» نیست

در هفته‌های اخیر، سیاستمداران و مقام‌های واشنگتن درباره هشدار‌های مهندسان و مدیران شرکت‌های فناوری درباره خطرات بلندمدت هوش مصنوعی بحث کرده‌اند؛ اما ماجرای کشتی چینی نشان می‌دهد خطر فوری‌تر می‌تواند بسیار ساده‌تر باشد: انسان‌ها ممکن است بر اساس اطلاعات اشتباه تولیدشده توسط هوش مصنوعی تصمیم‌های فاجعه‌باری بگیرند. منابع می‌گویند استفاده از هوش مصنوعی برای انتخاب اهداف نظامی در حال افزایش است؛ حوزه‌ای که کوچک‌ترین اشتباه در آن می‌تواند به کشته شدن غیرنظامیان یا نیرو‌های خودی منجر شود. 

یکی از منابع آگاه از سیاست‌های فعلی ارتش آمریکا گفت استفاده از هوش مصنوعی در هدف‌گیری به‌سرعت در حال گسترش است، اما هنوز دستورالعمل مشخصی وجود ندارد که نشان دهد حضور یک انسان در روند تصمیم‌گیری چگونه می‌تواند جلوی تلفات غیرنظامیان یا حمله اشتباهی به نیرو‌های خودی را بگیرد. همچنین به گفته یکی از منابع، خطا‌های موسوم به «توهم هوش مصنوعی» که در این حادثه رخ داد، نمونه‌ای منفرد در جامعه اطلاعاتی آمریکا نیست و از زمان گسترش این ابزار‌ها در دولت، موارد مشابه دیگری نیز دیده شده است.

هوش مصنوعی شما را سریع‌تر به یک ایده بد می‌رساند

برخی مقام‌های باسابقه اطلاعاتی که در مجموع از استفاده از هوش مصنوعی در ارتش حمایت می‌کنند، نگران‌اند که این فناوری فشار برای تولید و انتشار سریع‌تر اطلاعات را افزایش دهد و در نتیجه احتمال خطا بیشتر شود. چند منبع همچنین گفتند تحلیلگران جوان‌تر که بیشتر با این ابزار‌ها کار کرده‌اند، ممکن است با اعتماد بیشتری به خروجی آنها تکیه کنند و کمتر صحت نتایج را زیر سؤال ببرند. یکی از منابع در توصیف این مشکل گفت: «هوش مصنوعی باعث می‌شود سریع‌تر به یک ایده بد برسید.» فرماندهی عملیات ویژه آمریکا و پنتاگون به درخواست سی‌ان‌ان برای اظهارنظر درباره این حادثه پاسخ ندادند.